Alexander là con thứ tư của vua Casimir với hoàng hậu Elizabeth xứ Áo. Năm 1492, Casimir IV Jagiellon qua đời và anh trai là Jan I Olbracht được cử làm vua Ba Lan, anh cả Wladyslaw được phong làm vua Hungaria và Séc - hiệu Vladislaus II của Bohemia và Hungary; riêng Alexander được phong là Đại Công tước Litva.

Alexander là người duy nhất và cuối cùng biết tiếng Litva[2]. Tận dụng sự giúp đỡ của các cố vấn triều đình Litva uyên thâm, Alexander giữ cho đại công quốc độc lập trong chính sách đối ngoại. Vốn là người hiền lành, Alexander không tranh giành ngôi vua Ba Lan với anh trai Jan I Olbracht. Năm 1492 - 1494, ông đánh nhau với quân của đại công Ivan III của Nga nhưng bị thất bại, bị mất Wiaźmy và một phần đất công quốc Wierchow. Để hòa hoãn với Ivan III, Alexander xin cưới công nương Helena. Đến năm 1500, quân đội Ruthenian chiếm đóng một phần của Zadnieprza và đe dọa Smoleńsk, bắt đầu cuộc chiến tranh Litva-Moskva (1500 - 1503). Tháng 3/1501, ông lập liên minh với đại thống lĩnh Hiệp sĩ Teutons là Wolter von Plettenberg (1494 - 1525) để chống Moskva. Sau cái chết của Jan Olbracht, vào ngày 3 tháng 10 năm 1501, ông được bầu làm người kế nhiệm bởi hội đồng quý tộc ở Piotrków[3]. Được giám mục Boryszewski thông báo sẽ kế ngôi, ông khẩn trương đi từ Litva đến Krakow cho vương miện Ba Lan, hy vọng nhận dược sự ủng hộ của quý tộc Ba Lan trong cuộc chiến tranh với Moskva.